El auge de los grandes modelos lingüísticos (LLM), especialmente la popularización de aplicaciones como ChatGPT, ha transformado radicalmente la forma en que interactuamos con las máquinas. Estos modelos pueden generar textos coherentes y completos, lo que resulta impresionante. Sin embargo, a pesar de su potencia, los LLM son propensos a las "alucinaciones", es decir, a generar contenido que parece real pero que en realidad es ficticio, sin sentido o inconsistente con la indicación. Investigadores de la Universidad de Harvard han realizado un estudio profundo sobre el fenómeno de las "alucinaciones" en los LLM, descubriendo que su origen radica en el principio de funcionamiento de los LLM. Los LLM funcionan procesando enormes cantidades de datos textuales...

En la Conferencia Mundial de Inteligencia Artificial 2024 y la Reunión de Alto Nivel sobre Gobernanza Global celebrada hoy en Shanghai, Li Yanhong, CEO de Baidu, pronunció un discurso principal. Li Yanhong enfatizó que un modelo base, sin importar si es de código abierto o cerrado, carece de verdadero valor sin aplicaciones prácticas. Instó a la industria a dejar de centrarse únicamente en la competición por los modelos en sí mismos y a pasar al desarrollo profundo de aplicaciones. Cree que si las aplicaciones generan beneficios significativos para la industria, el valor total creado superará con creces al de Internet móvil.

Los ingresos totales del cuarto trimestre de Baidu Smart Cloud alcanzaron los 8.400 millones de yuanes, y los grandes modelos lingüísticos generaron aproximadamente 660 millones de yuanes en ingresos adicionales. El número diario de llamadas al modelo lingüístico Wenxin supera los 50 millones, con un aumento del 150% en las llamadas de las empresas. El coste de inferencia del modelo lingüístico Wenxin se ha reducido al 1% de la versión del año pasado. Baidu invierte en la integración de texto a audio y video, una dirección importante para el futuro desarrollo de los grandes modelos lingüísticos. Hu Qimu cree que el crecimiento de los resultados generado por el negocio de IA de Baidu es el principal motor. Hu Qimu cree que la IA y la industria manufacturera se encuentran todavía en una etapa inicial, y Baidu necesita cooperar con las empresas manufactureras.

Los ingresos totales de Baidu Intelligent Cloud en el cuarto trimestre alcanzaron los 8.400 millones de yuanes. Los grandes modelos lingüísticos generaron aproximadamente 660 millones de yuanes en ingresos adicionales para el negocio de la nube.

Los grandes modelos de IA están generando pérdidas, y GitHub Copilot de Microsoft está subvencionando a los usuarios mensualmente con una elevada suma. Los productos de IA generativa de imágenes están mostrando un gran potencial, como Midjourney, que ha logrado ingresos anuales de 200 millones de dólares. Estos productos tienen aplicaciones comerciales y generan valor inmediato para los usuarios. Los grandes modelos de IA tienen costes elevados, incluyendo hardware y mantenimiento, lo que dificulta su rentabilidad. Los productos de IA generativa de imágenes también se enfrentan a problemas de costes computacionales, pero han logrado su aplicación práctica. Los gigantes tecnológicos están adoptando diversas medidas para contrarrestar esto, como aumentar las tarifas de suscripción y ajustar el tamaño de los modelos.

La popularidad de los grandes modelos lingüísticos en el sector financiero está en auge, con bancos, aseguradoras y corredores de bolsa implementándolos. Sin embargo, su aplicación se ve limitada por tres obstáculos principales: la inmadurez de la tecnología, las restricciones regulatorias y la falta de casos de uso adecuados. Actualmente, la aplicación de los grandes modelos lingüísticos en el sector financiero se limita a áreas superficiales como la atención al cliente inteligente, quedando aún muy lejos de las operaciones centrales. La propia tecnología de los grandes modelos lingüísticos presenta deficiencias en cuanto a precisión y capacidad de juicio, lo que la hace inadecuada para las exigencias de precisión del 100% del sector financiero. El entrenamiento y el uso de los grandes modelos lingüísticos deben cumplir con las normativas de seguridad de datos y están sujetos a restricciones regulatorias. Para la difusión de los grandes modelos lingüísticos se requiere una mayor variedad de casos de uso, algo que actualmente escasea en el sector financiero.

Este estudio demuestra que los grandes modelos lingüísticos preentrenados (LLM), como GPT-3, pueden mejorarse a sí mismos utilizando el método RAIN para satisfacer las necesidades humanas sin necesidad de datos adicionales ni de ajuste fino. El método RAIN se aplica ampliamente a diversas tareas de generación de lenguaje, sin necesidad de modelos adicionales, almacenamiento de datos o dependencia de datos etiquetados o entrenamiento. RAIN mejora el rendimiento de los LLM mediante la autoevaluación, reduciendo la tasa de éxito de los ataques adversarios y generando respuestas de IA más coordinadas y seguras. Este estudio presenta RAIN como un método para ajustar los LLM para satisfacer las necesidades humanas.

Las alucinaciones en los grandes modelos lingüísticos se clasifican principalmente en tres categorías: conflicto con la entrada, el contexto y los hechos. A diferencia de los modelos tradicionales, la evaluación de las alucinaciones en los grandes modelos lingüísticos se enfrenta a nuevos desafíos como la gran escala de datos, la alta generalidad y la dificultad de detección. Para mitigar las alucinaciones, se pueden utilizar métodos como el preentrenamiento, el ajuste fino y el aprendizaje por refuerzo, pero aún existen desafíos como la evaluación confiable. En general, la evaluación y la mitigación de las alucinaciones en los grandes modelos lingüísticos requieren una investigación más profunda para promover su aplicación práctica.

Baidu anuncia que Ernie Bot está completamente abierto al público, llevando los productos de grandes modelos lingüísticos a un nuevo campo de batalla. iFlytek lanza su gran modelo lingüístico iFlytek Spark, intensificando la competencia. Tras el registro, los fabricantes de grandes modelos lingüísticos buscan aplicaciones exitosas. Los fabricantes de grandes modelos lingüísticos se enfrentan a cuellos de botella en la capacidad informática y problemas de precisión en la información generada. Los fabricantes de grandes modelos lingüísticos compiten por usuarios y vías de comercialización en los mercados B2C y B2B.

Fabricantes de teléfonos móviles como Xiaomi, Huawei y Apple se están adentrando en el campo de los grandes modelos lingüísticos de IA. La implementación de los grandes modelos lingüísticos de IA por parte de los fabricantes de teléfonos móviles se centra principalmente en los asistentes de voz. Los grandes modelos lingüísticos de IA tienen el potencial de convertirse en un factor clave para la competencia de los fabricantes de teléfonos móviles en el mercado de gama alta.

El fundador de 360 Group, Zhou Hongyi, opina que, como herramienta de productividad de nivel revolucionario industrial, la verdadera oportunidad de los grandes modelos lingüísticos se encuentra en el mercado empresarial, y deberían convertirse en un componente estándar de cada sistema digitalizado.